Mae Carol Jemison sinh ra tại Decatur, Alabama, vào ngày 17 tháng 10 năm 1956,[1][2] con út trong ba người con của Charlie Jemison và Dorothy Jemison (nhũ danh: Green).[3] Cha bà là giám sát viên bảo trì cho một tổ chức từ thiện, và mẹ bà làm việc hầu hết sự nghiệp của mình với tư cách là một giáo viên tiểu học dạy Tiếng Anh và Toán học tại Trường tiểu học Ludwig van Beethoven ở Chicago, Illinois.[4][5] Gia đình bà đầu tiên sống ở Woodlawn và sau đó là Morgan Park.[6] Jemison biết từ nhỏ rằng bà muốn học khoa học và một ngày nào đó đi vào vũ trụ.[7] Chương trình truyền hình Star Trek, và đặc biệt là nữ diễn viên người Mỹ gốc Phi Nichelle Nichols miêu tả trung úy Uhura càng khiến bà quan tâm đến không gian.[8][9][10]